![arXiv:2106.01503v1 [cs.AI] 2021 年 6 月 2 日](/simg/e/e1571bcb5bcb584c2a170e3c51159ee34ba9f241.png)
机构名称：
¥ 2.0
向最终用户提供有意义且可操作的解释是实现现实世界中可解释智能系统的基本前提。可解释性是用户与人工智能系统之间的情境交互，而不是静态的设计原则。解释的内容依赖于上下文，必须由有关用户及其上下文的证据来定义。本文试图通过提出一种从用户启发的角度定义解释空间的形成性架构来将这一概念付诸实践。该架构包括五个相互交织的组件，以概述任务的解释要求：（1）最终用户的心理模型，（2）最终用户的认知过程，（3）用户界面，（4）人类解释者代理和（5）代理过程。我们首先定义架构的每个组件。然后，我们介绍抽象解释空间，这是一种建模工具，它聚合了架构的组件，以支持设计人员系统地将解释与最终用户的工作实践、需求和目标保持一致。它指导需要解释的内容（内容 - 最终用户的心理模型）、为什么需要解释（背景 - 最终用户的认知过程）、如何解释（格式 - 人机解释代理和用户界面）以及何时给出解释。然后，我们在飞机维护领域的一个正在进行的案例研究中举例说明了该工具的使用。最后，我们讨论了该工具的可能贡献、已知的限制/改进领域以及未来要做的工作。
arXiv:2106.01503v1 [cs.AI] 2021 年 6 月 2 日
主要关键词
![arXiv:2106.01503v1 [cs.AI] 2021 年 6 月 2 日PDF文件第1页](/bimg/3/3ca4cea6ed3bc959deb61bc7451acab8a7079bf1.webp)
![arXiv:2106.01503v1 [cs.AI] 2021 年 6 月 2 日PDF文件第2页](/bimg/7/7f6c9ff0856bfff1e7a585f785ee9a02a243fba2.webp)
![arXiv:2106.01503v1 [cs.AI] 2021 年 6 月 2 日PDF文件第3页](/bimg/f/f6ff38227fa709a8d07c7dc707e0c4e5fa412524.webp)
![arXiv:2106.01503v1 [cs.AI] 2021 年 6 月 2 日PDF文件第4页](/bimg/c/c4a5b1cf7cfaf5b47bf6839e5e6b58f8df7a4bc5.webp)
![arXiv:2106.01503v1 [cs.AI] 2021 年 6 月 2 日PDF文件第5页](/bimg/e/ecbc5aadf0a16b569c9a5375d00ec139cdd7010b.webp)
相关文件推荐
![arXiv:2106.02498v1 [cs.AI] 2021 年 6 月 4 日](/simg/9/93f7f6b4cf13f430992a922d1f2df15a49e78633.png)
![arXiv:2106.03797v1 [cs.CV] 2021 年 5 月 20 日](/simg/d/d3991bdbf22b7ca1f479c1474c721bd822b7bde3.webp)
![arXiv:2108.04371v1 [cs.AI] 2021 年 8 月 9 日](/simg/6/69fe1655ea43f7b9cf8e76ca88cea4759963b40c.png)
![arXiv:1907.09278v2 [cs.AI] 2021 年 3 月 1 日](/simg/b/b56249f47d3400dc780a2a5a6b1e7a2371ddf6ce.png)
![arXiv:2109.02202v1 [cs.AI] 2021 年 9 月 6 日](/simg/5/55baf6cb57275ce7df25ca5c5de85c262f57827f.png)
![arXiv:2001.11457v3 [cs.AI] 2021 年 3 月 5 日](/simg/7/77db03c1f11d1263a7a871acf160ef76873ebef0.png)
![arXiv:2001.02021v1 [cs.AI] 2020 年 1 月 7 日](/simg/6/6656a65d1324b757699cd670b349c20ef6da7f31.png)
![arXiv:2101.11844v1 [cs.AI] 2021 年 1 月 28 日](/simg/0/0d5ef59b56f0580056ece4d763c75afa4d2bd407.png)
![arXiv:2109.08006v3 [cs.AI] 2021 年 11 月 5 日](/simg/4/4fcb830248cd3f99a25326b2b1663ac275ee39f0.png)
![arXiv:2109.01281v2 [cs.AI] 2021 年 10 月 4 日](/simg/3/325c45217088ea7ef5cdb60280f17c1c7fe54b34.png)
![arXiv:2103.06769v1 [cs.AI] 2021 年 3 月 11 日](/simg/2/2f4d12dbbeb215138cd3f636a30cb61579429c5b.png)
![arXiv:2105.06564v2 [cs.AI] 2021 年 5 月 17 日](/simg/4/4a44e8f64e3bdf2208b0ec3c7f0db257903554ef.png)
![arXiv:2009.05487v3 [cs.AI] 2021 年 8 月 26 日](/simg/3/3c87b68027f137968ab7fa405274c3bf872022b1.png)
![arXiv:2007.01544v2 [cs.AI] 2021 年 9 月 20 日](/simg/5/54b080d69663555a0d382eb9d34ff207684afe01.png)
![arXiv:2105.11828v1 [cs.AI] 2021 年 5 月 25 日](/simg/5/58a37638f5f7ba15129a1d765c77a035aa693d7b.png)
![arXiv:2102.06518v1 [cs.AI] 2021 年 2 月 12 日](/simg/0/070d7c7773e4992bf716ef8f8bc5d0404ff23414.png)
![arXiv:2110.04203v2 [cs.AI] 2021 年 10 月 18 日](/simg/5/58d5a0053bae26a7adfd1fb340a26d8711d48d91.png)
![arXiv:2112.05700v1 [cs.AI] 2021 年 12 月 10 日](/simg/3/3ec93cb24912e4a7fd3a076b6543510966aa675b.png)
![arXiv:2111.00826v4 [cs.AI] 2021 年 12 月 17 日](/simg/d/d4e727c16ad3d32ed6dc0b79aaf9f4b1f3039c71.png)
![arXiv:2107.12977v3 [cs.AI] 2021 年 11 月 17 日](/simg/a/ae032aba22522e8e9c4e5cb16f874631e51a5f13.png)
![arXiv:2112.14480v1 [cs.AI] 2021 年 12 月 29 日](/simg/7/76e1731f517ae8b8ca33352fd3f1435faeaee1a5.png)
![arXiv:2112.15422v1 [cs.AI] 2021 年 11 月 25 日](/simg/9/944ac25ddea48b6e4402cdc063b0cba3869af3b5.png)
![arXiv:2102.07039v1 [cs.RO] 2021 年 2 月 14 日 - 加州理工学院作者](/simg/2/25e43204245c78df627668556baf7f3f3d635b52.webp)